Listwise Cross-Encoder Fine-Tuning vs. Agentic Instruction Tuning for LLM Rerankers: A Systematic Study in Medical Procedure Reranking
列表级交叉编码器微调与代理式指令微调的LLM重排序对比研究
🧭 重排序系统 · 小模型微调 vs 大模型指令调优
Healthee
109M参数的交叉编码器微调ListNet后，NDCG@3比4B指令重排序模型高2.6点，参数仅1/37
📌 工作参考价值（4 点）
- 在电商搜索/推荐重排序中，若资源及延迟敏感，可优先考虑小参数交叉编码器+ListNet 微调，性能可能反超大模型。
- 利用 GPT-4 等大模型自动构建查询-商品/文档对的数据集管道，可低成本构建领域训练数据。
- 代理式提示优化（agentic prompt optimization）的思路可迁移至推荐系统提示工程，自动化调优 LLM 重排序器的提示词。
- 部署时权衡延迟——小模型推理成本低，适合实时重排序；大模型可留作离线评估或数据生成。